生成式人工智能安全
領域大語言模型的內容安全控制研究
Research on content safety control of domainspecific large language models
張欣欣1，李濤1，趙龍彪1，賈真真2，周衡廣3
doi: 10.19358/j.issn.2097-1788.2025.11.001
摘要
HTML
PDF(1597KB)
隨著大語言模型在非通用領域中的廣泛應用，其在知識管理、決策支持和安全信息交流等方面展現出巨大潛力。然而，這些領域具有高度的專業性和敏感性，在特定場景下確保輸出內容的安全性與合規性是主要挑戰?，F有方法主要依賴模型的重新訓練或微調，成本高且靈活性不足。提出了一種無需重新訓練模型的精細化輸出控制方法，將輸出控制抽象為分類問題，利用分類算法對生成內容進行判斷，決定是否輸出。該機制結合數學建模與特征工程，力求在滿足業務需求的同時，最大限度地減少潛在風險，提升輸出的安全性與合規性。
基于同態加密的AI模型參數安全計算與防泄露方法
Secure computation and anti-leakage methods for AI model parameters based on homomorphic encryption
張恒，廖尚斌，張陳穎
doi: 10.19358/j.issn.2097-1788.2025.11.002
摘要
HTML
PDF(952KB)
隨著人工智能在醫療、金融等敏感領域的廣泛應用，模型參數與訓練數據的隱私保護成為關鍵問題。提出一種基于同態加密（HE）的AI模型參數安全計算與防泄露方法，采用CKKS方案在密文空間中實現參數加密、前向推理與梯度更新，避免了訓練過程中明文暴露的風險。結果表明，HESGD在MNIST上最高準確率達99.1%；在計算開銷上，實現了效率與安全性的平衡，信息泄露風險指數接近0.0。研究表明，該方法在保持模型精度的同時，實現了高效安全計算與近乎零泄露風險，具有較強的應用價值。
英文語言大模型特定文化改造方法研究
Methodology of adapting large English language models for specific cultural contexts
張文靜1,2，肖思琪1,2，雷雪嬌1,2，王寧1,2，張華正1,2，安美娟1,2，楊必琨1,2， 劉兆祥1,2，王愷1,2，廉士國1,2
doi: 10.19358/j.issn.2097-1788.2025.11.003
摘要
HTML
PDF(1003KB)
大語言模型的迅猛發展已成為人工智能領域的顯著趨勢。然而，目前領先的大語言模型多基于英文，直接將其應用于特定文化領域下的任務時存在局限，如特定領域知識不足和文化價值觀差異導致的誤解。為應對這一挑戰，提出了一種針對特定文化背景下大模型的快速改造方法，該方法基于特定文化知識能力和安全價值觀數據進行指令微調。以中文為特定文化背景，選用LLaMA38B英文大模型作為實驗對象，評估結果顯示，改造后的大模型在保持原有領域知識優勢的同時，顯著增強了在特定領域下的知識能力和安全價值觀適應能力。
一種針對垂類模型的綜合成效評測框架
A comprehensive effectiveness evaluation framework for domain-specific models
宋元1，張衎1，2，任熠輝1，黃曉鵬1
doi: 10.19358/j.issn.2097-1788.2025.11.004
摘要
HTML
PDF(1471KB)
針對垂類模型在評測實踐中存在的評價維度單一、缺乏領域適配性以及方法碎片化等問題，提出了一套綜合成效評測框架。該研究旨在通過標準化方案解決技術研發與產業應用之間的“評價斷層”，為垂類模型的開發、部署和監管提供科學依據。研究方法包括構建以安全合規、技術性能和應用價值為核心的多維指標體系，并配套設計評測數據集構建策略與混合評測方法，后者融合了自動化測試、人工評估和大模型作為裁判的評估手段。研究結果形成了一套結構化的評測體系，涵蓋評價對象分類、指標定義和方法實施，能夠實現對不同類型垂類模型的全面、可比較評估。結論表明，該框架有助于提升評測的客觀性和可操作性，推動垂類模型在關鍵領域的可信賴應用，未來需通過實踐驗證和動態優化以適應技術發展。
AI大語言模型的數據安全風險與治理措施
Data security risks and governance measures for AI large language models
林杰，王家盛
doi: 10.19358/j.issn.2097-1788.2025.11.005
摘要
HTML
PDF(1371KB)
隨著AI大語言模型的迅猛發展，其在為各領域帶來創新機遇的同時，也引發了諸多數據安全風險。深入剖析AI大語言模型所面臨的數據安全風險，包括數據泄露、數據濫用、數據偏見等方面，并針對性地提出一系列治理措施，旨在為構建安全可靠的AI大語言模型應用環境提供全面的理論依據與實踐指導，促進該技術在合法合規且安全的軌道上持續發展。
智能算法
基于改進U-Net的多尺度層級融合去霧網絡
Multi-scale hierarchical fusion dehazing network based on enhanced U-Net
季云云1，熊亮2
doi: 10.19358/j.issn.2097-1788.2025.11.006
摘要
HTML
PDF(10484KB)
計算機視覺任務中，霧霾的存在會導致圖像出現質量下降問題，現有的去霧方法因全局與局部特征協同建模不足及多尺度霧濃度自適應處理欠缺，常出現去霧殘留和色彩失真?；诟倪MUNet的多尺度層級融合去霧網絡以多尺度輸入捕獲層級特征，結合分層次特征融合優化信息傳遞。相鄰層嵌入特征增強塊自適應聚焦關鍵區域，跨層交叉融合實現多尺度互補，促使網絡內部信息充分流動。實驗表明，該方法在合成與真實數據集上均優于對比方法，尤其在細節恢復、色彩保真和真實場景泛化性方面表現突出。
大數據與數據技術
基于大模型上下文學習的未知意圖識別方法
Intent recognition method based on incontext learning of large language models
孫顥原1，劉瑩君2，于莉娜2，紀濤2，張圳錫1,吳繼冰1
doi: 10.19358/j.issn.2097-1788.2025.11.007
摘要
HTML
PDF(1344KB)
面對現代化戰爭的復雜態勢，精準的意圖識別技術可實現對指揮人員需求的高效理解與精準捕捉，提升決策準確率和敏捷性?，F有意圖識別方法通常需要大量人工標注的數據進行訓練，帶來了高昂的成本，并且對于新意圖的識別效果較差。為此，提出了基于大語言模型(Large Language Models，LLMs)上下文學習的創新解決辦法，充分利用大模型的通用語言能力和指令遵循能力，僅需使用少量樣本并無需訓練，便可完成已知意圖識別與新意圖發現任務，為意圖識別提供了一種新型高效的解決方案。
基于保形加密的民航旅客信息脫敏方法
Civil aviation passenger data encryption method based on format-preserving encryption
杜宇浩，王保國，譚玲，胡楠
doi: 10.19358/j.issn.2097-1788.2025.11.008
摘要
HTML
PDF(1409KB)
針對民航旅客數據量大、涉及個人敏感信息多、在特殊情況下需要用到原值的問題，研究了一種基于保形加密的民航旅客信息脫敏方法。首先，按照應用場景和敏感程度的不同，結合數據特點，篩選出合理字段并據此確定調整因子的值，然后利用保形加密框架加密敏感信息，從而避免脫敏結果單一。該方法在保證數據不失真的前提下，能有效減少各字段之間的關聯性，增加密文破解難度，降低個人信息泄露風險；同時，在需要獲取原值時可以高效還原數據，以滿足各類業務場景需求。以民航電子客票數據為例，模擬相應數據進行實驗，結果驗證了所提算法的有效性和實用性。
面向國產數據庫的Text-to-SQL數據集設計
The design of Text-to-SQL datasets for domestic databases
李國深1，劉瑩君2，于莉娜2，紀濤2，張航1，吳繼冰1
doi: 10.19358/j.issn.2097-1788.2025.11.009
摘要
HTML
PDF(2059KB)
隨著智能技術的發展，數據庫數量和規模激增，傳統數據存取技術在應對海量數據處理需求時存在耗時長、效率低等問題，Text-to-SQL技術成為銜接用戶需求和數據庫存取的重要橋梁。然而，現有技術通常在開源非國產數據集上訓練，在實際應用中存在數據庫操作語言不一致、領域知識欠缺和可靠性差等問題。為此，結合數據庫領域軟硬件國產化趨勢，設計面向國產數據庫的Text-to-SQL數據集，采用基于合成數據方法的大語言模型兩階段訓練技術，提出一種基于大語言模型的國產數據庫Text-to-SQL方法，通過實驗對方法的有效性進行了充分驗證。
數據治理
檢驗檢測機構認可業務數據分類分級研究
Study on the classification and grading of accreditation service data in inspection and testing body
金達1，霍珊珊1，張冰2，李彥軍2，劉健1，郝奇2
doi: 10.19358/j.issn.2097-1788.2025.11.010
摘要
HTML
PDF(1077KB)
隨著認可業務數字化、智能化進程不斷推進，認可業務數據的重要性不斷增強，數據分類分級安全保護需求日益緊迫。首先研究國外數據分類分級現狀和分析我國數據分類分級戰略規劃，接著分析數據分類分級方法，然后在分析檢驗檢測機構認可業務數據特點基礎上，提出檢驗檢測機構認可業務數據分類分級流程和規則，以及數據分級安全保護措施，為實現認可業務數據分類分級安全保護提供支撐。
權屬視域下數據安全治理“效率-公平”的平衡逆轉機制研究
Research on the balanced reversal mechanism of efficiency fairness in data security governance from the perspective of ownership
武萬里，王龍
doi: 10.19358/j.issn.2097-1788.2025.11.011
摘要
HTML
PDF(1388KB)
探討了數據安全治理中“效率-公平”平衡機制的動態演變，聚焦數據權屬視角下多主體協同治理的安全風險與制度梗阻問題及其逆轉路徑的探索。通過闡釋數據治理中“效率-公平”平衡機制的具體含義，以權屬視域從市場、政府以及個人三個主要的不同治理主體探究平衡機制面臨安全風險所帶來的機制性梗阻，并對逆轉路徑進行探索。圍繞市場、政府、個人三大主體構建“全鏈貫通-動態調適”的治理體系，通過權屬重構、技術賦能與制度創新打通數據流通堵點，在安全可控前提下釋放數據要素價值，最終服務于新質生產力的培育與數字生態的可持續發展。
公共數據授權運營收費的正當性審視
A review of the legitimacy of public data authorized operation fees
李佳欣
doi: 10.19358/j.issn.2097-1788.2025.11.012
摘要
HTML
PDF(1462KB)
公共數據作為兼具治理要素與生產要素雙重屬性的戰略資源，授權運營中的收益分配問題逐漸掣肘其開發利用，收費正當性受到質疑。作為制度設計的關鍵一環，公共數據授權運營收費源于憲法精神與政策法規的雙重授權，契合公物理論與公私協力的治理邏輯，滿足要素配置效率與受益者負擔原則，其存在具有補償制度運行成本、激勵相關制度完善、保障制度安全和可持續的充分正當性。基于目的正義、程序正當與結果正義質疑提出的“公共屬性背離說”“政府逐利傾向說”“開放空間侵蝕說”均存在不夠周延之處，不足以對收費正當性形成有力反駁。
計算法學
短視頻沉迷中的智能推薦算法反思與規制
Reflection and regulation of intelligent recommendation algorithms in short video addiction
楊美玲，潘靜
doi: 10.19358/j.issn.2097-1788.2025.11.013
摘要
HTML
PDF(1573KB)
短視頻沉迷現象的蔓延與智能推薦算法的深度應用密切相關，已成為影響個體發展與社會治理的重要議題。智能推薦算法通過“數據畫像—強化推送—即時反饋”的技術閉環持續捕獲用戶注意力，由此誘發系統性公共健康風險。現行治理框架在算法層面存在顯著滯后性，突出表現為算法責任認定標準模糊、立法供給不足以及監管機制的碎片化。因此，短視頻沉迷中智能推薦算法的治理應以技術特性為基礎、社會影響為導向、法律回應為保障的階梯式治理路徑：在法律層面，明確沉迷認定標準，構建算法風險分級與三元責任體系；在監管層面，建立算法動態監測機制，推行監管沙盒與階梯式干預；在多元共治層面，完善行業自律，暢通公眾參與渠道，推進國際規則對接。希冀為破解算法驅動型沉迷提供實操路徑，也為數字時代技術風險的法律規制提供范式參考。
行業應用
基于可穿戴健康設備的勸導式設計與評價
Persuasive design and evaluation based on wearable health devices
孟瑤1，魯琴1，祁春霞1，白楊2
doi: 10.19358/j.issn.2097-1788.2025.11.014
摘要
HTML
PDF(4458KB)
為了探討勸導技術在可穿戴健康系統中的設計、實現和評價，研究了與運動激勵相關的勸導設計，提煉了6條面向運動的勸導原則：目標設定、自我監控、社交影響、正面強化、提醒和建議以及娛樂交互，并據此設計和開發了一種用于可穿戴設備的運動輔助系統。為了評估勸導設計的有效性，招募了25名受試者進行為期一周的實地實驗，并對實驗數據進行統計分析。結果表明，勸導原則在提升受試者對穿戴系統的接受度方面有積極影響。其中，目標設定、社交影響和正面強化對運動激勵有顯著貢獻。結合量身定制的勸導原則，可穿戴系統具有促進用戶運動的潛力。
